Ngọc Khuê vào bộ đội từ năm 1965, đã trải qua các nhiệm vụ: pháo thủ, đã trực tiếp tham gia chiến đấu trong Trung đoàn 228 bảo vệ Cầu Hàm Rồng, Thanh Hoá từ 1965, từ 1967 làm giáo viên văn hoá, trợ lý câu lạc bộ, ông làm thơ và ca hát...

Ngọc Khuê bắt đầu sự nghiệp nghệ thuật của mình từ năm 1974, khi ông là diễn viên hát của Đoàn Ca Múa Phòng không-Không quân. Sau đó, ông làm trưởng đoàn kiêm chỉ đạo nghệ thuật của Đoàn Nghệ thuật không quân, chủ nhiệm của Nhà văn hóa Quân chủng Không quân. Ngọc Khuê đã dàn dựng, chỉ đạo nghệ thuật cho nhiều chương trình ca múa nhạc đạt hiệu quả cao.[1][2]

Tác phẩm đầu tay của ông: Tiếng hát bên dòng sông Mã , được Đài Tiếng nói Việt Nam sử dụng năm 1968, sau đó ông viết tiếp nhiều ca khúc với giai điệu khoáng đạt, trữ tình, như: Mùa xuân làng lúa làng hoa (Giải thưởng Bộ Văn hóa, 1982), Hạt nắng hạt mưa (Giải thưởng Bộ Văn hóa Thông tin), Tìm em nơi phố nhỏ (Giải thưởng Hội Âm nhạc Hà Nội), Ba cô gái tinh nghịch, Khoảng trời riêng em, Áo nâu thương nhớ, Tình yêu với người chiến sĩ (Giải thưởng Bộ Quốc Phòng). Tiếp sau là các tác phẩm: Cây Đàn Tính và người chiến sĩ, Nhớ hoàng hôn Hà Nội (Thơ Đậu Hoài Thanh), Gặp gỡ đồng đội… Ông đã dàn dựng, chỉ đạo nghệ thuật cho nhiều chương trình ca múa nhạc đạt hiệu quả cao như chương trình Bầu trời, mặt đất tôi yêu, hoặc Bầu trời và trái tim người lính... Đã xuất bản: Tuyển chọn ca khúc Ngọc Khuê (25 bài, NXB Âm nhạc và Hội Nhạc sĩ Việt Nam, 1996), băng cassette Hạt nắng hạt mưa (tuyển chọn 12 ca khúc, NXB Âm nhạc và Hội Nhạc sĩ Việt Nam, 1996), tập Hoa và nắng gồm 108 ca khúc – Nhà xuất bản Thanh niên - 2002), Tập thơ: "Cơn mưa xanh", NXB Hội Nhà Văn 2004 và nhiều ấn phẩm viết chung khác.